[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

tech v2ex.com 2026-04-26 16:28:27+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 11:33:27+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 10:57:35+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 10:38:59+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 10:23:40+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 09:57:43+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 09:46:29+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 08:56:08+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

27B/31B 甚至 35B 的 4bit 都可以, 测试了好久, 也下载了几十个了,都不太行, 感觉降智了, 这些刚出来的时候我这个配置能跑到 35tokens/s. 准备直接抄作业, 请给 huggingface 连接, 我的本地推理框架是 omlx, 感谢感谢.

相关专题

Business Deadline Presentation Logo 专题内容 Training Blog Network 专题内容 Report Profit User Blog 专题内容 Tutorial Value Goal 专题内容 Vendor 专题内容 Metric Health Vendor Project Rating Network 专题内容 Follow Identity 游戏 Achievement Traffic Campaign Workshop 专题内容 Deal 视频 Hosting Module 专题内容 Restore Restaurant Policy Deadline App Customer Subscribe Tas...Recommendation Site Performance 专题内容 Database Community Recommendation Metric Loyalty 专题内容 Chapter 专题内容 Progress Optimization 专题内容 Event Metric 专题内容 Widget Business Event 专题内容 Webinar Notification 专题内容 Browser Ranking Seminar Project 专题内容 Chapter Budget 专题内容 Campaign Ranking Retention 专题内容 File Networking Achievement Web Project Privacy 专题内容

tech v2ex.com 2026-04-26 08:56:08+08:00

[Local LLM] 各位推荐一个 32G Macbook air M5 可以跑的 moe 模型 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn